Les grands modèles linguistiques (LLM) ont fait des progrès considérables dans le domaine du traitement du langage naturel (TLN), excellant dans des applications telles que la génération de texte, la synthèse et les questions-réponses. Cependant, la dépendance des LLM au traitement au niveau des jetons (prédiction d'un mot à la fois) pose certains défis. Cette approche contraste avec la façon dont les humains communiquent, qui opèrent généralement à un niveau d'abstraction plus élevé, tel que les phrases ou les idées. La modélisation au niveau des jetons est également limitée dans les tâches nécessitant une compréhension contextuelle longue et peut produire des sorties incohérentes. De plus, l'intégration de ces modèles...